Thời nhà Hán, Hải Khẩu thuộc huyện Đại Mạo, quận Châu Nhai. Thời nhà Tùy, Hải Khẩu là một cảng của huyện Quỳnh Sơn, thủ phủ thời cổ của đảo Hải Nam, nằm sâu trong đất liền 5 km. Thời nhà Đường lập ra Bạch Sa Tân (bến Cát trắng) thuộc thành Quỳnh Châu với dịch trạm Cổ Độ để kiểm soát thương mại giữa Quỳnh Châu và Lôi Châu. Thời Nam Tống lập Hải Khẩu phổ, bao gồm khu vực ngày nay là nhai đạo Hải Điện của quận Mỹ Lan. Sau đó thì Hải Khẩu phổ đã dần vượt qua Bạch Sa Tân để trở thành hải cảng chính của đảo. Từ năm 1271, nhà Nguyên lập phiên doanh ở đây. Năm Hồng Vũ thứ 27 (1395), Minh Thái Tổ lập pháo thành, đổi Hải Khẩu phổ thành Hải Khẩu sở. Nơi đây được tăng cường đáng kể và trở thành một cảng quân sự. Cảng này nằm ở phía tây cửa sông Nam Độ, con sông lớn nhất trên đảo Hải Nam.

Khi Quỳnh Sơn được mở cửa cho ngoại thương theo Hòa ước Thiên Tân (1858), Hải Khẩu bắt đầu phát triển và dần vượt trội so với thành phố hành chính cũ. Năm Quang Tự thứ nhất (1875), lập hải quan Hải Khẩu. Trong thời kỳ đầu của Trung Hoa dân quốc, Hải Khẩu sở đổi thành Hải Khẩu trấn. Năm 1926, Hải Khẩu vượt qua Quỳnh Sơn về quy mô dân số và từ thập niên 1930 trở đi nơi đây được tuyên bố là một đơn vị hành chính riêng biệt.

Hải Khẩu phát triển như là một cảng biển trong Chiến tranh Trung-Nhật lần hai (1937–1945) khi người Nhật xâm chiếm đảo Hải Nam từ năm 1939 tới năm 1945.

Kể từ năm 1949, Hải Khẩu duy trì vai trò như là cảng chính của đảo Hải Nam, với trên một nửa kim ngạch thương mại của đảo trung chuyển qua đây. Nó đã thay thế Quỳnh Sơn trong vai trò trung tâm hành chính của đảo. Ngày 23 tháng 4 năm 1950, thành phố chuyển về tay chính quyền Cộng hòa Nhân dân Trung Hoa. Năm 1988, Hải Khẩu được nâng cấp lên thành địa cấp thị cũng như là thủ phủ của tỉnh mới được thành lập là tỉnh Hải Nam. Trước đó, cả hòn đảo vẫn trực thuộc tỉnh Quảng Đông.

Phố cổ Hải Khẩu có những tòa nhà lâu đời nhất trong thành phố và phần lớn được xây dựng bởi những người Trung Quốc giàu có từ đại lục và một số "người Hoa kiều" đã trở về quê hương của họ. Những ngôi nhà là sự pha trộn của nhiều phong cách kiến trúc khác nhau bao gồm Bồ Đào Nha, Pháp và Đông Nam Á. Các đường phố từng được chia thành các khu vực riêng biệt để bán thuốc bắc và thuốc tây, lụa và quần áo may sẵn, một khu bán thịt và cá tươi, một số khu bán hương, nến, giấy, mực và các hàng hóa khác.

Nhiều dự án hiện đang được thảo luận để quyết định cách tốt nhất để khôi phục và bảo tồn những tòa nhà lịch sử này.